人工知能（ＡＩ）などを搭載し、自らの判断で標的を選んで攻撃する完全自律型の兵器は認められないとする指針が、スイスで今月開かれた国際会議で採択された。法的拘束力はないものの、今後の兵器のあり方を示す事実上の国際規範となる。ただ、議論では各国の思惑が交錯し、指針には土壇場で「説明できるＡＩ」のような新技術について、グレーゾーンにする項目が盛り込まれた。
スイス・ジュネーブ、２２日午前３時（現地時間）になった。エアコンも止められた国連欧州本部の小ぶりな会議室で、会議を総括する報告書が全会一致で採択された。２０１４年から続いてきた「自律型致死兵器システム」（ＬＡＷＳ）に関する議論が、ようやく集大成の成果文書としてまとまった。
非人道的な兵器を規制する目的で、１２５の国と地域が批准する特定通常兵器使用禁止制限条約（ＣＣＷ）。その下に設けられた今回の政府専門家会合には、９０カ国以上の政府代表やＮＧＯなどが出席した。ＬＡＷＳはまだ登場していないが、米ロや韓国、イスラエルなどが先駆的に開発しているとされ、人権団体などは自律性のある兵器の幅広い禁止を訴えてきた。
今回採択された指針は１１項目。ＡＩと称される機械学習などの新技術を用いた将来のＬＡＷＳについて、まず戦時の民間人らの保護を定めた国際人道法や関連する国際法を順守することを確認した。そして、ＡＩなどを搭載した兵器が自ら標的を選んだり、攻撃を決断したりすることが技術的に可能になるとしても、兵器を使用する責任は人間にあると規定。開発から配備、使用まで人間が関与する原則も示した。
一方、指針はＡＩのような「知的な自律技術」そのものの発展や、平和利用されることを妨げないことも求めた。民生でも軍事でも、ＡＩなどのソフトウェア技術に大きな違いはないためだ。ロシアなど一部の国は、将来の兵器であるＬＡＷＳが出現していない段階で、開発に規制をかけることに反対してきた。
指針は１１月に予定されるＣＣＷの締約国会議で追認され、より確固たるものとなる見通しだが、さらに進めて条約化を目指す動きは鈍い。先行き不透明だ。
人権団体のブレーンである米ハーバード大法科大学院講師のボニー・ドチェルティさんは採択後、取材に「（報告書の文言は）今後、法的拘束力のある条約をつくる可能性を残しつつ、非拘束もあり得るという広い意味を持つものになった」と指摘した。
一方、日本政府代表団に加わった拓殖大の佐藤丙午教授（安全保障論）は「指針を採択した各国は、自らの責任で自国の政策に反映するよう方向付けられた。規制のための国際機関や条約体は当面、作られる可能性が低いだろう」と語る。
説明できるＡＩ 米国が開発に注力
指針には採択直前、当初案になかった１項目が米国主導で盛り込まれた。「人間と機械の意思疎通」という項目で、人間とＡＩなどが十分に意思疎通できる技術が確立すれば、国際人道法に沿う、いわば合法的なＬＡＷＳが実現できるかもしれないとする内容だ。どういうことか。
今のＡＩは、脳の神経回路を模した仕組みなどを採り入れた極めて複雑な数式のようなもの。ＡＩがどんな根拠をもとに答えを出したのかは人間には到底分からず、「思考の過程」はブラックボックスになっている。答えが外国語の翻訳なら間違ってもあまり問題にならないが、殺傷した標的を選んだ根拠が不明な兵器は許されない。
米国防総省も、攻撃判断は人間が関与するよう内規で定めている。ただ、米同時多発テロ後、米国がアフガニスタンでミサイル攻撃や仕掛け爆弾の除去に無人機やロボットを多用する時代に入り、画像認識技術などＡＩをこれらに組み込む流れが生まれた。日本も、完全自律型の兵器は開発しないとしつつ、ＡＩは「ヒューマンエラーの減少や省力化に意義がある」と期待する。
では新技術でＡＩの思考の過程が見え、人間と以心伝心と言えるまでになれば、ＡＩの判断でも人間が判断したと同じに見なせるのではないか――。
米国防総省は近年、「説明できる（ｅＸｐｌａｉｎａｂｌｅ）ＡＩ＝ＸＡＩ」に力を入れる。５月に米スタンフォード大で開かれたシンポジウムでは、ＡＩ技術担当士官がＬＡＷＳを前提に「ＸＡＩは国防総省が最も注力する分野の一つ」と明言した。
一方、元グーグルのプログラマーでシンポにも参加したラウラ・ノーランさんは「ＸＡＩ開発は初期段階。（敵などに）乗っ取られる懸念を和らげるわけでもない」と反発する。自律兵器開発を進めたい国々と人権団体の対立はなお続きそうだ。ただ、ＬＡＷＳを巡る議論を分析してきた広島市立大の福井康人准教授（国際法）は指針を「ソフト・ローの一種だ」と評価した。ソフト・ローとは、条約のような法的拘束力はないが守らなければ大きな不利益を被ることもある規範性を有するものだ。福井さんは「海のものとも山のものとも言えないＬＡＷＳの規制としては最適の選択になったと思う。この指針は事実上の国際規範になる」と話す。（松尾一郎）
Source : 社会 – 朝日新聞デジタル